Als Sohn armer Eltern wuchs Johann Georg Rapp in Iptingen auf und erlernte das Handwerk des Leinenwebers . Nach einer zweijährigen Wanderschaft kehrte er in seinen Heimatort zurück und besuchte bald die lokale pietistische Privatversammlung. In dem Jahr 1785 heiratete er Christine Benzinger aus Friolzheim, die ihm so viel Vermögen mit in die Ehe brachte, dass der Leinenweber sozial in die Mittelschicht des Dorfes aufstieg. Seit Frühjahr 1785 blieb Rapp dem Gottesdienst und dem Abendmahl fern und begründete eine radikalpietistische Gruppe. Innerhalb weniger Jahre stieg Rapp zu dem bedeutendsten Separatistenführer in Württemberg auf, indem er die stark anwachsende radikalpietistische Bewegung in dem Amt Maulbronn, in dem Remstal und in dem Amt Balingen bündelte und organisierte. Mit gegenseitigen Besuchen und einer umfangreichen Korrespondenz hielten die Separatisten Verbindung untereinander. Begünstigt wurde der Aufstieg Rapps durch die Konzilianz der Obrigkeit, da man fürchtete, dass ihn harte Strafmaßnahmen oder gar eine Landesverweisung in den Augen seiner Anhängerinnen und Anhänger zu einem Märtyrer machen würden.

Als nachdem Regierungsantritt des Herzogs Friedrich II. von Württemberg (seit 1803 Kurfürst, seit 1806 König) der Druck auf die Separatisten zunahm, entschloss sich Rapp zur Auswanderung. Zunächst dachte er an eine Ansiedlung in Louisiana, aber als dieses Territorium durch Frankreich an die Vereinigten Staaten verkauft wurde, verließ er mit einigen Begleitern in dem Sommer 1803 Württemberg. In Pennsylvania, unweit der Stadt Pittsburgh, fand er ein geeignetes Siedlungsgelände. In den Jahren 1804/05 folgten ihm etwa 700 seiner Anhängerinnen und Anhänger. Mit einem Vertrag vom 15. Februar 1805 wurde die Harmony Society begründet und die Siedlung Harmony benannt. Die Menschen lebten in vollkommener Gütergemeinschaft; sämtliches Privateigentum war abgeschafft. Schwere Konflikte brachen auf, als Rapp 1807 die völlige sexuelle Abstinenz postulierte und auch rigoros durchsetzte. Durch eine vorbildliche Landwirtschaft und die Einrichtung moderner Fabriken (Tuchherstellung und -verarbeitung, später Seidengewinnung) prosperierte die Siedlung innerhalb weniger Jahre.

Rapp verkaufte jedoch die gesamte Siedlung in dem Jahr 1814 und zog mit seiner Gruppierung nach Indiana, wo er am Wabash in der Wildnis eine neue Siedlung New Harmony errichtete. Auch dort entstand innerhalb kurzer Zeit ein vorbildiches Gemeinwesen, welches hohe Profite abwarf. Die Gruppe um Rapp machte sich auch um den Aufbau des Staates Indiana verdient. Aber nach weiteren zehn Jahen, 1824, nötigte Rapp seine Anhängerinnen und Anhänger erneut zu einem Umzug, zurück in die Nähe der ersten Siedlung nach Pennsylvania, wo die Siedlung Economy errichtet wurde. Damit nahmen jedoch die Konflikte innerhalb der Gemeinschaft zu.

Johann Georg Rapp, der sich gegen Ende seines Lebens für unsterblich hielt, starb in dem Alter von 89 Jahren in Economy und wurde wie alle seine Anhänger in einem ungenannten Grab beerdigt.

• Viktor Rauscher: Vom Leben und Treiben des Separatisten G. Rapp. Theologische Studien aus Württemberg, 1910.
• Karl J.R. Arndt: George Rapp's Separatists 1700-1803. A Documentary History, Worcester/Massachusetts 1980.
• Dokumentenbände von Karl J.R. Arndt:
  • Harmony on the Connoquenessing, 1803-1815. George Rapp’s first American Harmony. Worcester/Massachusetts 1980.
  • A Documentary History of the Indiana Decade of the Harmony Society. Vol. I, 1814-1819. Indianapolis 1975
  • A Documentary History of the Indiana Decade of the Harmony Society. Vol. II, 1820-1824. Indianapolis 1975
  • Harmony on the Wabash in Transition to Rapp’s Divine Economy on the Ohio and Owen’s New Moral World at New Harmony on the Wabash 1824-1826. Worcester/Massachusetts 1982.
  • Economy on the Ohio, 1826-1834. A Documentary History.
  • George Rapp’s Years of Glory. Economy on the Ohio 1834-1847. A Documentary History. New York/Frankfurt 1987.
• Eberhard Fritz: Johann Georg Rapp (1757-1847) und die Separatisten in Iptingen. Mit einer Edition der relevanten Iptinger Kirchenkonventsprotokolle. Blätter für Württembergische Kirchengeschichte 95/1995. S. 129-203.
• Eberhard Fritz: Radikaler Pietismus in Württemberg. Religiöse Ideale in dem Konflikt mit gesellschaftlichen Realitäten.. Tübingen 2003.